21 урок для XXI века  - Юваль Ной Харари

По всей видимости, никакое националистическое противоядие не защитит нас и от третьей угрозы, с которой столкнется человечество в XXI веке. Эта угроза исходит со стороны технологий. Как было показано в предыдущих главах, слияние ИТ и биотехнологий открывает путь к огромному числу катастрофических сценариев, от цифровых диктатур до появления глобального класса ненужных людей. Какой ответ на эти угрозы предлагают националисты?

Никакого. Как и в случае с изменением климата, при появлении потенциально опасных технологий национальное государство будет просто не в состоянии противостоять угрозе. Поскольку ни одна страна не обладает монополией на научные исследования и разработки, самостоятельно их ограничить не сможет даже такая сверхдержава, как США. Если американское правительство запретит генную инженерию человеческих эмбрионов, это не остановит китайских ученых. А если в результате Китай получит существенное экономическое или военное преимущество, у США возникнет искушение снять собственный запрет. В ксенофобском мире, где царит закон джунглей, если хотя бы одна страна решит ступить на скользкую, но сулящую большие выгоды технологическую дорожку, другие будут вынуждены последовать ее примеру, потому что отставание равносильно гибели. Чтобы избежать этой гонки, ведущей в пропасть, человечеству, по всей видимости, придется объединиться на основе глобальной идентичности и взаимной лояльности.

Более того, если ядерная война и изменение климата угрожают только физическому выживанию человечества, то технологии способны изменить саму природу человека; в силу этого они неразрывно связаны с самыми глубокими этическими и религиозными убеждениями людей. Никто не спорит с тем, что мы обязаны предотвратить ядерную войну и экологическую катастрофу, но существуют разные точки зрения на использование биоинженерии и искусственного интеллекта для улучшения человека и создания новых форм жизни. Если человечество не сможет сформулировать и принять единые для всего мира этические нормы, наступит эра доктора Франкенштейна.

Когда речь заходит о таких этических нормах, сторонники национализма страдают в первую очередь от отсутствия воображения. Они мыслят в категориях территориальных конфликтов, не утихавших на протяжении столетий, тогда как о технологических революциях XXI века следует рассуждать во вселенском контексте. После 4 миллиардов лет эволюции органической жизни и естественного отбора может наступить эра неорганической жизни, формируемой разумным замыслом.

Не исключено, что в процессе исчезнет Homo sapiens как таковой. Сегодня мы по-прежнему человекообразные обезьяны из семейства гоминидов. У нас все еще много общего с неандертальцами и шимпанзе: строение тела, физические возможности и умственные способности. Из общего с другими гоминидами у нас не только руки, глаза и мозг, но и похоть, любовь, гнев и социальные обязательства. Через сто или двести лет слияние биотехнологий и искусственного интеллекта может привести к появлению физических и психологических черт, которых нет у гоминидов. Некоторые ученые даже полагают, что сознание можно будет отделить от органической основы, и оно будет свободно перемещаться по киберпространству, избавленное от всех биологических и телесных ограничений. С другой стороны, мы можем стать свидетелями полного отделения интеллекта от сознания, а развитие искусственного интеллекта приведет к ситуации, когда миром будут управлять существа, наделенные суперинтеллектом, но полностью лишенные сознания.

Чем может ответить на это израильский, русский или французский национализм? Едва ли чем-то серьезным: националисты не мыслят на этом уровне. Израильских националистов чрезвычайно беспокоит вопрос о том, кому через сто лет будет принадлежать Иерусалим – израильтянам или палестинцам? Но их совсем не волнует другой вопрос: кто через сто лет будет управлять Землей – сапиенсы или киборги? Чтобы сделать разумный выбор относительно будущего, нужно подняться над националистической позицией и взглянуть на происходящее с глобальной или даже космической точки зрения. Подобно тому, как древние племена людей жили в долине Нила, сегодня все народы живут на берегу одной глобальной реки информации, научных открытий и технологических изобретений, которая, с одной стороны, обеспечивает наше процветание, с другой – создает угрозу нашему существованию. Чтобы эта глобальная река не вышла из берегов, все народы должны действовать сообща.

Любой из этих трех угроз – ядерной войны, экологической катастрофы или разрушительных технологий – вполне достаточно для уничтожения человеческой цивилизации. Но все вместе они создают опаснейший кризис, поскольку, по всей видимости, дополняют и усугубляют друг друга.

Несмотря на то что экологический кризис грозит уничтожить человеческую цивилизацию в ее нынешнем виде, он едва ли остановит развитие искусственного интеллекта и биоинженерии. Не стоит надеяться, что повышение уровня океана, нехватка продовольствия и массовая миграция отвлекут внимание от изучения алгоритмов и генов. По мере усугубления экологического кризиса развитие рискованных, но сулящих огромные преимущества технологий только ускорится.

И действительно, изменение климата может сыграть ту же роль, что и две мировых войны. В периоды с 1914 по 1918 и с 1939 по 1945 год темпы технологического прогресса резко возрастали, поскольку участвовавшие в мировых войнах страны отбрасывали соображения осторожности и экономии и вкладывали огромные ресурсы в дерзкие и фантастические проекты. Точно так же государства, столкнувшиеся с климатической катастрофой, могут не устоять перед искушением пуститься в отчаянные технологические авантюры в надежде на спасение. У человечества есть много обоснованных сомнений относительно искусственного интеллекта и биоинженерии. Как бы вы ни относились к запретам потенциально опасных технологий, спросите себя: будут ли эти запреты соблюдаться в ситуации, когда климатические изменения вызовут нехватку продовольствия, затопление городов по всему миру и перемещение через границы сотен миллионов беженцев?

Развитие технологий, в свою очередь, повышает вероятность апокалиптических войн – не только из-за усиления напряженности в мире, но и из-за нарушения ядерного баланса между странами. С 1950-х годов супердержавы избегали взаимных конфликтов, потому что знали: война гарантированно приведет к взаимному уничтожению. Но появляются новые виды наступательных и оборонительных вооружений, и набирающая силу технологическая супердержава может решить, что способна безнаказанно уничтожить врага. И наоборот: слабеющая страна будет опасаться, что традиционное ядерное оружие скоро устареет, и решит, что лучше использовать его, пока оно не стало бесполезным. До сих пор ядерное противостояние напоминало в высшей степени рациональную шахматную игру. Но что произойдет, когда игроки получат возможность использовать кибератаки, чтобы захватить контроль над фигурами противника, а анонимные третьи стороны будут двигать пешки так, что соперники даже не догадаются, кто сделал очередной ход?

Помимо того что угрозы, по всей видимости, будут дополнять друг друга, добрая воля, необходимая для противостояния одной угрозе, может быть ослаблена проблемами на другом фронте. Страны, втянутые в вооруженное противостояние, вряд ли договорятся об ограничениях на разработку искусственного интеллекта, а странам, стремящимся превзойти технологические достижения соперников, будет почти невозможно выработать общий план борьбы с изменением климата. В мире, поделенном на конкурирующие нации, человечеству будет очень трудно противостоять сразу всем трем угрозам, а неудача даже на одном фронте легко обернется катастрофой.